Оптический вычислитель Сбера для задач ИИ
Источник: https://t.me/SberAIScience/4275
Краткое содержание
На Петербургском международном экономическом форуме (ПМЭФ) Сбер представил оптический вычислитель — первое в России и одно из первых в мире устройств, использующих свет для вычислений. Чип выполняет умножение матриц (основную вычислительную нагрузку при обучении LLM) почти мгновенно и почти без выделения тепла. Прототип выполняет более 1 млрд операций матричного умножения в секунду, с перспективой увеличения до 10 ГГц и выше. Энергопотребление оптического ядра на 30%+ ниже, чем у электронных аналогов.
Значимость
Оптические вычисления могут стать базой будущей инфраструктуры ИИ: снизить затраты бизнеса на обучение и инференс LLM, тем самым ускорив прогресс искусственного интеллекта. Сбер позиционирует себя не как догоняющего, а как формирующего этот тренд на российском рынке.
🧾 Транскрипт (формат)
🤖 ТАКОЙ МАЛЕНЬКИЙ, А УЖЕ РАБОТАЕТ
Источник: https://t.me/SberAIScience/4275
🤖 ТАКОЙ МАЛЕНЬКИЙ, А УЖЕ РАБОТАЕТ
Готовы делиться новостями! На Петербургском международном экономическом форуме (ПМЭФ) Сбер представил оптический вычислитель для задач искусственного интеллекта. Это первое в России и одно из первых в мире устройств, которые задействуют для вычислений свет!
Как это работает?
🤩 За счёт питания от света чип почти мгновенно и практически без выделения тепла производит умножение матриц — основную нагрузку при обучении и работе больших моделей
Узнали об устройстве у Андрея Белевцева, старшего вице-президента и руководителя блока «Технологическое развитие» Сбера 👇
🎤 Прототип способен выполнять более 1 млрд операций матричного умножения в секунду, и мы видим путь к увеличению частоты оптических операций до 10 ГГц и более. Само умножение в оптике происходит за доли наносекунды, при этом энергопотребление оптического ядра более чем на 30% ниже, чем у электронных аналогов
В ближайшем будущем технология может стать базисом вычислительной инфраструктуры. С её помощью бизнес сможет снизить затраты на обучение и применение LLM, а значит, прогресс развития ИИ тоже ускорится.
❤️ — заряжаемся светом науки
✔️ Подписывайтесь на Sber AI в МАКС